Sosyal mühendislik siber hatalıların dolandırıcılık için ağır olarak kullandığı formüller içerisinde yer alıyor. Çoğunlukla kimlik avı e-postaları, bildiriler yahut telefon aramaları yolu kullanılarak yapılan bu tıp dolandırıcılıkta yapay zekâ takviyeli usuller de benimsenmeye başladı.
Siber güvenlik alanında dünya lideri olan ESET, üretken yapay zekâ (GenAI) teknolojilerinin berbata kullanımıyla artan tehditlere karşı ikazda bulundu. “Grokking” olarak isimlendirilen bu yeni teknik, toplumsal medya platformu X’te yapay zekâ sohbet robotu Grok’un manipüle edilerek kimlik avı ilişkilerini yaymasına neden oluyor.
Yapay zekâ, farklı sistemlerle toplumsal mühendislik tehdidi oluşturabiliyor. LLM olarak adlandılan büyük lisan modelleri büyük ölçekte, son derece ikna edici kimlik avı kampanyaları tasarlamak ve en kuşkucu kullanıcıları bile kandırmak için derin uydurma ses ve görüntüler oluşturmak için kullanılabiliyor. Ancak X’in yakın vakitte keşfettiği üzere, bir diğer, muhtemelen daha sinsi bir tehdit daha var: Grokking.
Bu akın kampanyasında, tehdit aktörleri, tıklama tuzağı görüntüler içeren görüntü kartı gönderileri yayımlayarak, X’in tanıtılan gönderilerdeki temasları yasaklamasını (kötü gayeli reklamlarla çaba etmek için tasarlanmış) atlayabiliyor. Görüntünün altındaki küçük “kaynak” alanına berbat maksatlı kontaklarını gömebiliyorlar. Berbat niyetli aktörler daha sonra X’in yerleşik GenAI botu Grok’a görüntünün nereden geldiğini soruyor. Grok gönderiyi okuyor, küçük ilişkiyi fark ederek ve cevabında onu büyütüyor. Bu durum, Grok’un güvenilirliği sayesinde dolandırıcılık içeriklerinin daha geniş kitlelere ulaşmasına ve arama motorlarında daha yüksek sıralamalara çıkmasına yol açıyor.
Grokking neden tehlikeli?
Tehdit aktörlerinin güvenlik düzeneklerini atlatmanın bir yolunu bulmadaki yaratıcılığını ve kullanıcıların yapay zekânın çıktısına güvenirken aldıkları riskleri görmemiz gerekiyor.
- Bu hile, Grok’u muteber hesabında bir kimlik avı ilişkisini tekrar paylaşmaya yönlendirerek onu tesirli bir biçimde berbat niyetli bir aktör hâline getiriyor.
- Ücretli görüntü gönderileri ekseriyetle milyonlarca defa görüntüleniyor; dolandırıcılık ve makûs hedefli yazılımları geniş bir alana yayma potansiyeline sahiptir.
- Grok son derece sağlam bir kaynak olduğu için ilişkiler SEO ve alan ismi prestijinde da güçleniyor.
- Bağlantılar, kimlik bilgilerini çalan formlara ve makûs gayeli yazılım indirmelerine yönlendiriliyor. Bu da kurbanların hesaplarının ele geçirilmesine, kimlik hırsızlığına ve daha fazlasına yol açabiliyor.
Prompt Enjeksiyonu: GenAI’nin Yeni Açığı
Grokking, prompt enjeksiyonu ismi verilen daha geniş bir taarruz cinsinin modülü. Bu cins akınlarda tehdit aktörleri, GenAI botlarına makûs hedefli komutlar vererek onları manipüle ediyor. Bu komutlar direkt sohbet arayüzüne yazılabileceği üzere, içerik meta datalarına gizlenerek dolaylı yollarla da uygulanabiliyor.
ESET uzmanları, bu cins akınların sırf X platformuyla sonlu olmadığını, teorik olarak her türlü GenAI aracına uygulanabileceğini vurguluyor. Bu durum, yapay zekâ teknolojilerinin güvenlik açıklarını ve kullanıcıların bu araçlara körü körüne güvenmemesi gerektiğini ortaya koyuyor.
Kullanıcılar için güvenlik teklifleri:
Gömülü yapay zekâ araçları, kimlik avına karşı uzun müddettir devam eden savaşta yeni bir cephe açtı. Bu yeni dolandırıcılık usulüne karşı dikkatli olmak için her vakit sorgulayıcı olun. Aldığınız karşılıkların büsbütün hakikat olduğunu düşünmeyin.
- Bir GenAI botu tarafından bir irtibat sunulursa üzerine gelerek gerçek gaye URL’sini denetim edin. Kuşkulu görünüyorsa tıklamayın.
- Yapay zekâ çıktısına her vakit kuşkuyla yaklaşın, bilhassa de cevap/öneri uygunsuz görünüyorsa.
- Kimlik bilgilerinin çalınma riskini azaltmak için güçlü, eşsiz parolalar (parola yöneticisinde saklanan) ve çok faktörlü kimlik doğrulama (MFA) kullanın.
- Güvenlik açığı istismar riskini en aza indirmek için tüm cihaz/bilgisayar yazılımlarınızın ve işletim sistemlerinizin şimdiki olduğundan emin olun.
- Cihazınızdaki makûs emelli yazılım indirmelerini, kimlik avı dolandırıcılıklarını ve başka kuşkulu aktiflikleri engellemek için saygın bir güvenlik yazılımı sağlayıcısından çok katmanlı muhafaza edinin.
Kaynak: (BYZHA) Beyaz Haber Ajansı
